كشف الرئيس التنفيذي لشركة OpenAI، أنه خائف من إمكانية استخدام ChatGPT في عمليات تضليل واسعة النطاق وهجمات إلكترونية، وتحدث Sam Altman مؤخرًا مع ABC News حول برنامج chatbot الخاص بالشركة وإطلاق أحدث نسخة من نموذج اللغة GPT-4.
ووفقا لما ذكرته صحيفة "ديلى ميل" البريطانية، بينما أثار برنامج الدردشة الآلي مخاوف من هيمنة الذكاء الاصطناعي على العالم، يرى ألتمان أن البشر هم أكبر تهديد للتكنولوجيا.
وقال لشبكة ABC News: "سيكون هناك أشخاص آخرون لا يضعون بعض حدود الأمان التي نضعها"، مضيفا "المجتمع، على ما أعتقد، لديه قدر محدود من الوقت لمعرفة كيفية الرد على ذلك، وكيفية تنظيم ذلك، وكيفية التعامل معه."
وأطلقت شركةOpenAI الأسبوع الماضي GPT-4، ووصفته بأنه أقوى من سابقه، ويقبل الروبوت المدخلات في شكل صور بالإضافة إلى نص، لكنه لا يزال يُخرج إجاباته في نص، مما يعني أنه يمكنه تقديم أوصاف مفصلة للصور.
وحذرت الشركة من أن النموذج لا يزال عرضة للنطق بالحقائق غير الدقيقة، ويمكن إقناعه بإخراج محتوى خاطئ أو ضار.
وقال ألتمان: "أكثر شيء أحاول تحذيره للناس هو ما نسميه مشكلة الهلوسة"، مضيفا "النموذج سيوضح الأشياء بثقة كما لو كانت حقائق مكونة بالكامل."
اعترف ألتمان بأن GPT-4 "ليس مثاليًا"، ولكن يمكنه كتابة كود الكمبيوتر في معظم لغات البرمجة ويمكنه اجتياز اختبار الشريط الموحد في النسبة المئوية التسعين، ومع ذلك، يرى ألتمان أن GPT-4 شرير في أيدي البشر الذين يستخدمون قوته من أجل الشر.
قال ألتمان لشبكة ABC NEWS: "إنني قلق بشكل خاص من إمكانية استخدام هذه النماذج في التضليل على نطاق واسع"، موضحا "الآن بعد أن تحسنوا في كتابة التعليمات البرمجية للكمبيوتر، يمكن استخدامهم في الهجمات الإلكترونية الهجومية."
تم أضافة تعليقك سوف يظهر بعد المراجعة